(网经社讯)7月15日,由国家网信办、国家发改委、工信部等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》(简称《办法》)正式施行(详见网经社专题:https://www.100ec.cn/zt/rgznnrh/ )。这是国内首个针对AI拟人情感陪伴的专项监管文件,彻底终结了AI虚拟陪伴、拟人情感互动赛道野蛮生长的乱象时代。
对此,浙江省数智技术与服务联合会数字经济专委会副秘书长、网经社电子商务研究中心高级分析师陈礼腾进行解读。
大模型技术快速迭代,各类AI虚拟陪伴、数字人聊天、个性化智能体、情感咨询、虚拟恋人等拟人化互动产品快速普及。此类产品突破了传统工具类AI“问答、办公、教学”的功能性边界,具备人格模拟、持续情感输出、深度人机共情能力,能够长期陪伴用户、干预用户情绪、影响用户决策。
当前国内落地的拟人化AI平台业态丰富,既有Glow、星野、筑梦岛、Talkmaker等主打情感陪伴、虚拟人设互动的专属AI聊天平台,也有字节豆包、阿里千问等头部大模型平台开放的自定义智能体功能(已于《办法》落地当日下线),同时Soul等社交平台依托自研大模型布局AI情绪陪伴、虚拟人互动场景,海量拟人化产品快速渗透大众消费市场。
行业快速发展的同时,各类风险频频发生:部分AI产品输出不良价值观、诱导用户情感沉迷、替代现实社交;部分平台利用情感操纵诱导消费、误导用户决策;未成年人接触虚拟亲密关系引发心理异化;用户交互隐私数据泄露、训练数据不合规、人机边界模糊等问题频发。原有AI通用监管规则无法适配情感交互的特殊性,行业亟需专属、细化、可落地的治理规范。作为国内首部专门针对AI情感陪伴、拟人化交互场景的专项监管规章,《办法》终结了长期以来AI虚拟伴侣、情感智能体、拟人对话交互业态“无专属规则、无明确边界、无刚性约束”的野蛮生长状态。
《办法》的实施,标志着我国人工智能治理体系从宏观通用监管,走向细分场景精准治理。本次以分类监管、底线思维、全链管控、包容创新为核心,既堵住了行业乱象漏洞、守护用户尤其是青少年群体权益,又为AI情感技术正向创新、民生场景落地预留了充足空间。持续推动人工智能产业向善、有序、高质量发展。

专家介绍:陈礼腾,网经社电子商务研究中心分析师,浙江省数智技术与服务联合会数字经济专委会副秘书长。长期数字生活服务(外卖、团购、到家服务等)、在线旅游、移动出行、在线教育、数字健康等赛道,服务于滴滴出行、携程、同程、美团等知名互联网公司,每年接受上百次国内外主流媒体采访。(合作联系加微信:clt7513,备注单位+职务+姓名)
【小贴士】
深耕数字经济近 20 年的网经社,围绕“媒体+智库+媒介”三大战略,整合AI 全媒体、AI 智库、AI 资源链接三大核心能力,并应势上线一站式人工智能门户—— AI 台(AI.100EC.CN),打造 AI 赛道一站式专业服务平台,为人工智能企业提供全媒体宣传、智库(报告/榜单)、投融资、资源链接等服务。


































.png)



